91久久国产婷婷一区二区丨亚洲综合无码一区二区三区不卡丨超caopor在线公开视频丨国产精品乱码久久久久久久久丨日韩a片无码一区二区三区电影丨www.亚洲com丨动漫精品无码视频一区二区三区丨一道本视频在线观看丨五月天三级丨国户精品久久久久久久久久久不卡丨男女作爱bbbbbbbbb丨亚洲综合色成在线观看丨国产美女久久精品香蕉69丨黑人大群体交免费视频丨成人无码视频在线观看网址丨久久久1丨我想看一级黄色毛片丨精品一区久久丨www黄色网址丨911久久香蕉国产线看观看

一、Apache

①、通過修改 .htaccess 文件

修改網站目錄下的.htaccess，添加如下代碼即可(2 種代碼任選)：

可用代碼 (1)：

RewriteEngineOnRewriteCond%{HTTp_USER_AGENT}(^$|FeedDemon|IndyLibrary|AlexaToolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedparser|ApacheBench|MicrosoftURLControl|Swiftbot|ZmEu|oBot|jaunty|python–urllib|lightDeckReportsBot|YYSpider|DigExt|HttpClient|MJ12bot|heritrix|EasouSpider|Ezooms)[NC]RewriteRule^(.*)$–[F]

可用代碼 (2)：

SetEnvIfNoCase^User–Agent$.*(FeedDemon|IndyLibrary|AlexaToolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedparser|ApacheBench|MicrosoftURLControl|Swiftbot|ZmEu|oBot|jaunty|python–urllib|lightDeckReportsBot|YYSpider|DigExt|HttpClient|MJ12bot|heritrix|EasouSpider|Ezooms)BADBOTOrderAllow,DenyAllowfromallDenyfromenv=BADBOT

②、通過修改 httpd.conf 配置文件

找到如下類似位置，根據以下代碼 新增 / 修改，然后重啟 Apache 即可：

Shell

DocumentRoot/home/wwwroot/xxx<Directory“/home/wwwroot/xxx”>SetEnvIfNoCaseUser–Agent“.*(FeedDemon|IndyLibrary|AlexaToolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedparser|ApacheBench|MicrosoftURLControl|Swiftbot|ZmEu|oBot|jaunty|python-urllib|lightDeckReportsBot|YYSpider|DigExt|HttpClient|MJ12bot|heritrix|EasouSpider|Ezooms)”BADBOTOrderallow,denyAllowfromalldenyfromenv=BADBOT</Directory>

二、Nginx 代碼

進入到 nginx 安裝目錄下的 conf 目錄，將如下代碼保存為 agent_deny.conf

cd/usr/local/nginx/confvimagent_deny.conf

#禁止Scrapy等工具的抓取if($http_user_agent~*(Scrapy|Curl|HttpClient)){return403;}#禁止指定UA及UA為空的訪問if($http_user_agent~*“FeedDemon|IndyLibrary|AlexaToolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedparser|ApacheBench|MicrosoftURLControl|Swiftbot|ZmEu|oBot|jaunty|python-urllib|lightDeckReportsBot|YYSpider|DigExt|HttpClient|MJ12bot|heritrix|EasouSpider|Ezooms|^$”){return403;}#禁止非GET|HEAD|pOST方式的抓取if($request_method!~^(GET|HEAD|pOST)$){return403;}

然后，在網站相關配置中的 location / { 之后插入如下代碼：

Shell

includeagent_deny.conf;

如下的配置：

Shell

[marsge@Mars_Server~]$cat/usr/local/nginx/conf/zhangge.conflocation/{try_files$uri$uri//index.php?$args;#這個位置新增1行：includeagent_deny.conf;rewrite^/sitemap_360_sp.txt$/sitemap_360_sp.phplast;rewrite^/sitemap_baidu_sp.xml$/sitemap_baidu_sp.phplast;rewrite^/sitemap_m.xml$/sitemap_m.phplast;

保存后，執行如下命令，平滑重啟 nginx 即可：

Shell

/usr/local/nginx/sbin/nginx–sreload

三、pHp 代碼

將如下方法放到貼到網站入口文件 index.php 中的第一個

pHp

//獲取UA信息$ua=$_SERVER[‘HTTp_USER_AGENT’];//將惡意USER_AGENT存入數組$now_ua=array(‘FeedDemon‘,‘BOT/0.1(BOTforJCE)’,‘CrawlDaddy‘,‘Java’,‘Feedly’,‘UniversalFeedparser’,‘ApacheBench’,‘Swiftbot’,‘ZmEu’,‘IndyLibrary’,‘oBot’,‘jaunty’,‘YandexBot’,‘AhrefsBot’,‘MJ12bot’,‘WinHttp’,‘EasouSpider’,‘HttpClient’,‘MicrosoftURLControl’,‘YYSpider’,‘jaunty’,‘python-urllib’,‘lightDeckReportsBot’);//禁止空USER_AGENT，dedecms等主流采集程序都是空USER_AGENT，部分sql注入工具也是空USER_AGENTif(!$ua){header(“Content-type:text/html;charset=utf-8”);die(‘請勿采集本站，因為采集的站長木有小JJ！’);}else{foreach($now_uaas$value)//判斷是否是數組中存在的UAif(eregi($value,$ua)){header(“Content-type:text/html;charset=utf-8”);die(‘請勿采集本站，因為采集的站長木有小JJ！’);}}

四、測試效果

如果是 VpS，那非常簡單，使用 curl -A 模擬抓取即可，比如：

模擬宜搜蜘蛛抓取：

Shell

curl–I–A‘YisouSpider’bizhi.bcoderss.com

模擬 UA 為空的抓取：

Shell

curl–I–A”bizhi.bcoderss.com

模擬百度蜘蛛的抓取：

Shell

curl–I–A‘Baiduspider’bizhi.bcoderss.com